Vốn từ vựng cốt lõi của tiếng Hán thượng cổ đã được hầu hết các nhà nghiên cứu truy vết về tiếng tổ tiên Hán-Tạng, với các từ vay mượn sớm từ các ngôn ngữ lân cận.[68] Quan điểm truyền thống cho rằng tiếng Hán thượng cổ là một ngôn ngữ đơn lập do nó không có sự biến tố (inflection) hoặc sự phái sinh hình thái (morphological derivation), nhưng giờ thi ta biết rằng, từ vẫn có thể được hình thành thông qua quá trình phụ tố dẫn xuất (derivational affixation), láy từ (reduplication) và ghép từ (compounding).[69] Hầu hết các tác giả chỉ xem xét các gốc đơn âm tiết, nhưng Baxter và Laurent Sagart cũng đề xuất các gốc đôi âm tiết mà âm tiết đầu bị lược bỏ, giống trong tiếng Khmer hiện đại.[70]

Từ mượn

Vào thời cổ, văn minh Trung Hoa bành trướng từ khu vực xung quanh hạ lưu Vị Hà và trung lưu Hoàng Hà về phía đông qua đồng bằng Hoa Bắc đến Sơn Đông và sau đó xuống phía nam vào thung lũng Dương Tử. Không có ghi chép nào về các thứ tiếng phi-Hán được nói ở những nơi trước khi bị người Hán chinh phục và đồng hóa. Tuy nhiên, dấu vết của chúng vẫn còn tồn tại trong tiếng Hán (thông qua quá trình vay mượn) và có thể là nguồn gốc của một số từ Hán có lai lịch không rõ ràng.[71][72]

Jerry Norman và Mei Tsu-lin xác định nhiều từ vay mượn của tiếng Nam Á trong tiếng Hán thượng cổ, có lẽ từng được nói bởi các dân tộc hạ lưu sông Dương Tử được người Trung Quốc gọi là Việt (Yue). Ví dụ, người Hán cổ gọi sông Dương Tử là *kroŋ (江, bính âm: jiāng, Hán-Việt: giang), nhưng rồi được họ sử dụng để chỉ chung các con sông ở miền nam Trung Quốc. Norman và Mei cho rằng từ 江 chung gốc với sông của tiếng Việt (dạng Vietic nguyên thủy là *krong) và kruŋ 'sông' của tiếng Môn.[73][74][75]

Haudricourt và Strecker đề xuất một số từ vay mượn của tiếng H'Mông-Miền, bao gồm nhiều thuật ngữ canh tác lúa nước phát tích ở thung lũng giữa sông Dương Tử:

• *ʔjaŋ 'mạ, mầm lúa' (秧, bính âm: yāng, Hán-Việt: ương) từ *jaŋ của tiếng H'mông-Miền nguyên thủy
• *luʔ 'lúa gié' (稻, bính âm: dào, Hán-Việt: đạo) từ *mblauA của tiếng H'mông-Miền nguyên thủy[76]

Có một số từ nghi vấn có gốc bản địa miền Nam Trung Quốc, nhưng không rõ là từ đâu:

• *zjaŋʔ 'voi' (象, bính âm: xiàng, Hán-Việt: tượng) có thể đem so sánh với từ coiŋ tiếng Môn, *jaŋC tiếng Thái nguyên thủy và chaŋ tiếng Miến.[77]
• *ke 'gà' (雞, bính âm: jī, Hán-Việt: kê) có thể đem so sánh với *kəiB tiếng Thái nguyên thủy, *kai tiếng H'mông-Miền nguyên thủy và *r-ka tiếng Việt-Mường nguyên thủy.[78]

Thời xưa, người Tochari Ấn-Âu cư trú tại lòng chảo Tarim lan truyền thuật nuôi ong lấy mật sang Trung Quốc. Từ *mjit 'mật' (蜜, bính âm: mì, Hán-Việt: mật)có nguồn gốc từ *ḿət(ə) của tiếng Tochari nguyên thủy (*ḿ ở đây được vòm hóa; so sánh với mit của tiếng Tochari B), chung gốc với từ mead 'rượu mật ong' của tiếng Anh.[79][lower-alpha 7]Các dân tộc phương bắc cũng đóng góp một số từ ví dụ như *dok 'con bê' (犢, bính âm: dú, Hán-Việt: độc) – so sánh với tuɣul tiếng Mông Cổ và tuqšan tiếng Mãn Châu.[82]